Taiyō được sử dụng chủ yếu cho nhiệm vụ huấn luyện bay và vận chuyển máy bay. Trong quá trình hoạt động, hệ thống vũ khí phòng không của nó đã được nâng cấp nhiều đợt. Nhiều lần nó đã bị các tàu ngầm Mỹ phóng ngư lôi trúng: lần thứ nhất vào ngày 28 tháng 9 năm 1942 ở phía Nam Truk bởi chiếc USS Trout; lần thứ hai vào ngày 9 tháng 4 năm 1943 bởi chiếc USS Tunny; và một lần khác vào ngày 24 tháng 9 năm 1943 bởi chiếc USS Cabrilla. Sau mỗi lần đó, chiếc tàu sân bay được sửa chữa rồi lại được đưa vào hoạt động trở lại.

Vận may không trở lại với nó lần nữa, khi vào ngày 18 tháng 8 năm 1944 ở ngoài khơi mũi Bolinao, Luzon, trong khi hộ tống một đoàn tàu vận tải hướng đến Manila, Taiyō trúng phải một ngư lôi phóng từ tàu ngầm USS Rasher. Cú đánh trúng đã khiến các hầm xăng máy bay và dầu trên con tàu phát nổ, và Taiyō bị chìm trong vòng 26 phút với rất ít người sống sót.